AI 寒冬
概述
AI 寒冬指 1969 年 Minsky-Papert《Perceptrons》出版后,神经网络研究经费大幅削减、连接主义研究陷入停滞的十余年时期,直到反向传播算法的复兴才结束。
关键内容
-
触发事件:1969 年 Minsky 和 Papert 出版《Perceptrons (Minsky & Papert 1969)》,严格证明单层感知机无法解决线性不可分问题(如XOR 问题)。该结论被过度推广,导致整个神经网络领域被错误地放弃。
-
研究停滞:神经网络研究经费大幅削减,学术界转向符号主义 AI(基于规则和逻辑推理的方法),连接主义(基于神经网络的方法)研究几乎完全停滞。
-
持续时间:约从 1969 年持续到 1980 年代中期,长达十余年。
-
结束标志:1986 年 Rumelhart、Hinton 和 Williams 发表反向传播论文,系统展示了多层网络的训练方法,标志着神经网络研究的复兴。
-
历史教训:XOR 问题的局限性仅针对单层感知机,多层感知机配合非线性激活和反向传播完全可以解决。但当时的学术界未能区分这一点,导致整个领域被错误地否定。
来源
- 01_perceptron_1958 — 感知机原始论文解读
相关
- XOR 问题 — caused
- Perceptrons (Minsky & Papert 1969) — caused
- 感知机(Perceptron) — caused
- 反向传播(Backpropagation) — supersedes